دراسة: روبوتات الدردشة متّهمة بالتحيّز والتلاعب بالأشخاص

أفادت دراسة نشرها فريق بحثي من جامعة "جونز هوبكنز" الأمريكية، بأنّ روبوتات الدردشة يُمكن أن تشارك معلومات محدودة وتعزز الأيدولوجيات، ما يؤدي إلى تفكير أكثر استقطاباً، عندما يتعلق الأمر بالقضايا المثيرة للجدل.

وتشير الدراسة إلى أنّه على الرغم من أنّ روبوتات الدردشة يمكن أن تكون أدوات مفيدة لنشر المعلومات والتفاعل، إلاّ أنّها قد تكون لها أيضاً عواقب غير مرغوبة، مثل تعزيز المعتقدات القائمة، والمساهمة في الاستقطاب، بشأن الموضوعات المثيرة للجدل. 

ونشرت الدراسة خلال فعاليات مؤتمر لجمعية الآلات البرمجية، والمخصص هذا العام لدراسة العوامل البشرية في أنظمة الحوسبة

وتناقض تلك الدراسة، التصورات القائلة إن روبوتات الدردشة محايدة، وتوفر نظرة ثاقبة بشأن كيف يمكن أن يؤدي استخدام أنظمة البحث التحادثية، إذ يُمكن أن تؤدي تلك الروبوتات إلى توسيع الفجوة العامة بشأن القضايا الساخنة وترك الأشخاص عرضة للتلاعب.

وظهرت روبوتات الدردشة كأدوات فعالة لنشر المعرفة والتفاعل مع المستخدمين، ومع ذلك، فإنّ الأبحاث الحديثة تسلط الضوء على جانب مثير للقلق في برامج المحادثة المدعومة بالذكاء الاصطناعي.

ووفقاً للنتائج، قد تخبر روبوتات الدردشة المستخدم "ما يريد سماعه"، وهو أمر يثير تساؤلات بشأن موثوقية وحيادية نشر المعلومات في عصر الذكاء الاصطناعي.

وأكد المؤلف الرئيسي للدراسة، زيانج شياو، الأستاذ المساعد لعلوم الحاسب في جامعة جونز هوبكنز، على الجاذبية الخادعة للاستجابات التي تولدها برامج الدردشة الآلية.

التفاعلات بين الإنسان والذكاء الاصطناعي

ولأن الناس يقرأون فقرة ملخصة تم إنشاؤها بواسطة الذكاء الاصطناعي، فإنهم يعتقدون أنهم يحصلون على إجابات غير متحيزة وقائمة على الحقائق، لذا "حتى لو لم يتم تصميم برنامج الدردشة الآلي ليكون متحيزاً، فإن إجاباته تعكس تحيزات أو ميول الشخص الذي يطرح الأسئلة؛ إذ يحصل الأشخاص حقاً على الإجابات التي يريدون سماعها"، وفق شياو.

يتحدى هذا الكشف الاعتقاد التقليدي بأن نشر المعلومات المعتمدة على الذكاء الاصطناعي أمر موضوعي بطبيعته، في حين يُنظر إلى روبوتات الدردشة غالباً على أنها قنوات محايدة للمعلومات، إلا أنها يمكن أن تؤدي عن غير قصد إلى إدامة وتعزيز التحيزات القائمة.

ويسلط البحث الضوء على التفاعل المعقد بين مدخلات المستخدم، والمعالجة الخوارزمية، والمخرجات الناتجة في تشكيل التصورات والمواقف العامة، وتمتد آثار تلك الدراسة إلى ما هو أبعد من مجرد الوظيفة التكنولوجية؛ إذ تتعمق في الديناميكيات المعقدة للتفاعلات بين الإنسان والذكاء الاصطناعي والتداعيات المجتمعية لها.

ومع اعتماد الأفراد بشكل متزايد على المنصات المعتمدة على الذكاء الاصطناعي لمعرفة المعلومات واتخاذ القرار، يصبح فهم الآليات الأساسية التي تؤثر على هذه التفاعلات أمراً بالغ الأهمية.

ولمعرفة كيفية تأثير برامج الدردشة الآلية على عمليات البحث عبر الإنترنت، قام الفريق بمقارنة كيفية تفاعل الأشخاص مع أنظمة البحث المختلفة وكيف شعروا تجاه القضايا المثيرة للجدل قبل وبعد استخدامها.

طلب الباحثون من 272 مشاركاً كتابة أفكارهم بشأن مواضيع تشمل الرعاية الصحية، أو القروض الطلابية، أو مدن الملاذ الآمن، ثم البحث عن مزيد من المعلومات عبر الإنترنت بشأن هذا الموضوع، باستخدام إما برنامج الدردشة الآلي، أو محرك بحث تقليدي مصمم للدراسة.

وبعد النظر في نتائج البحث، كتب المشاركون مقالاً ثانياً، وأجابوا على الأسئلة بشأن الموضوع، كما طلب الباحثون من المشاركين قراءة مقالتين متعارضتين وسألوهم عن مدى ثقتهم بالمعلومات، وما إذا كانوا يجدون وجهات النظر متطرفة.

وقدم برنامج ذكاء اصطناعي جديد يشارك في محادثات تفاعلية مع الإنسان إجابات "مذهلة" بسبب قدرته على التعمق بمجالات متنوعة، لكن إجاباته بدت غبية في بعض الأحيان.

ووجد الباحثون أن روبوتات الدردشة قدمت نطاقاً أضيق من المعلومات مقارنة بعمليات البحث التقليدية على الويب، وقدمت إجابات تعكس مواقف المشاركين الموجودة مسبقاً، وأصبح المشاركون الذين استخدموها أكثر استثماراً في أفكارهم الأصلية، وكانت لديهم ردود فعل أقوى على المعلومات التي تتحدى وجهات نظرهم.

ويقول "شياو" إن الناس يميلون إلى البحث عن معلومات تتوافق مع وجهات نظرهم، وهو السلوك الذي غالباً ما يحبسهم في غرفة صدى للآراء المتشابهة "فقد وجدنا أن تأثير غرفة الصدى هذا أقوى مع روبوتات الدردشة مقارنة بعمليات البحث التقليدية على الويب."

وقال شياو، إنّ غرفة الصدى تنبع جزئياً من الطريقة التي يتفاعل بها المشاركون مع برامج الدردشة الآلية، فبدلاً من كتابة الكلمات الرئيسية، كما يفعل الأشخاص مع محركات البحث التقليدية، يميل مستخدمو برامج الدردشة الآلية إلى كتابة أسئلة كاملة، مثل: ما هي فوائد الرعاية الصحية الشاملة؟، أو ما هي تكاليف الرعاية الصحية الشاملة؟ سوف يجيب برنامج الدردشة بملخص يتضمن الفوائد أو التكاليف فقط.

وقال شياو: "مع روبوتات الدردشة، يميل الناس إلى أن يكونوا أكثر تعبيراً، وصياغة الأسئلة بطريقة أكثر تحادثية.. إنها وظيفة تتعلق بالطريقة التي نتحدث بها لكن لغتنا يمكن أن تستخدم ضدنا".

ويؤكد البحث، ضرورة دراسة التفاعل المعقد بين التكنولوجيا، وعلم النفس البشري، والديناميكيات المجتمعية في تشكيل المحادثات عبر الإنترنت، ورغم أن التحديات المرتبطة بمكافحة غرف الصدى، والاستقطاب هائلة، إلا أنها ليست مستعصية على الحل، ويقول "شياو" إنه "من خلال تعزيز ثقافة الاستفسار النقدي، ومحو الأمية الرقمية، وتطوير الذكاء الاصطناعي الأخلاقي، يمكننا تسخير الإمكانات التحويلية للتكنولوجيا، لتنمية خطاب عام أكثر استنارة، وشمولاً".

الشرق